Cómo la IA ayuda (y complica) la lucha contra la violencia digital
La inteligencia artificial (IA) ha cambiado el mundo digital de muchas formas, pero no siempre para bien. Por un lado, ha hecho la vida más fácil con asistentes virtuales y filtros en redes sociales, pero también ha traído problemas serios, especialmente para las mujeres. Con herramientas como los deepfakes, la suplantación de identidad y los ataques automatizados, ahora el acoso en línea es más fácil de hacer y más difícil de controlar.
Layla Delgadillo, fundadora y CEO de Silent4Business, lo tiene claro: si la IA se usa para atacar, también se puede usar para defender. Según datos de Deeptrace Labs, entre 2019 y 2021 la cantidad de deepfakes en internet creció un 330%, y lo peor es que el 96% de ellos se usó para crear contenido explícito sin consentimiento.
El problema: hacer deepfakes es cada vez más fácil
Antes, manipular imágenes o videos necesitaba conocimientos avanzados y equipos caros. Ahora, cualquier persona con acceso a internet y un poco de práctica puede hacerlo. “No solo es un tema de tecnología avanzada, sino de lo fácil que es acceder a ella”, explicó Delgadillo.
Dos frentes de batalla: la tecnología y la ley
Para enfrentar este problema, se han tomado dos caminos principales:
- El tecnológico: Se han desarrollado algoritmos que detectan deepfakes, revisando metadatos, marcas de agua digitales y patrones de manipulación en imágenes y videos. Aun así, estos métodos no son infalibles y pueden cometer errores.
- El legal: Algunos países están tomando medidas más serias contra la difusión de contenido manipulado. En Estados Unidos y la Unión Europea ya hay regulaciones más estrictas, mientras que en México, la Ley Olimpia ha sido un avance importante en la lucha contra el acoso digital. Aun así, las leyes no avanzan tan rápido como la tecnología, lo que deja muchas lagunas en la regulación.
La IA como aliada en esta lucha
Si bien la IA ha sido usada para el acoso en línea, también puede ayudar a combatirlo. Por ejemplo, Silent4Business creó 4YOU, un sistema que monitorea en tiempo real las redes y detecta actividades sospechosas. Usa algoritmos de IA para identificar y neutralizar intentos de acoso digital, además de ofrecer asesoría personalizada y protocolos de respuesta rápida.
“Con nuestra tecnología, podemos detectar anomalías en la red y responder antes de que el daño sea irreversible”, detalló Delgadillo.
Más mujeres en tecnología, más soluciones efectivas
Silent4Business también apuesta por la inclusión de mujeres en puestos clave dentro del sector tecnológico. Lourdes del Pilar Abadía Velasco, directora de Finanzas, y María del Rosario Palomero, subdirectora de Operaciones, son parte de este esfuerzo.
Al final del día, Delgadillo lo resume así: la tecnología es solo una parte de la solución. La clave está en la combinación de educación digital, regulaciones adecuadas y herramientas de seguridad avanzadas. Como ella misma dice: “La lucha contra la violencia digital no es solo cosa de gobiernos y empresas, también es responsabilidad de los usuarios”.
